ParetoSaddler:面向质量与成本的智能体 Harness 帕累托优化
🧭 Agent 系统调优 · 多目标优化
University College London · Pohang University of Science and Technology · Southern University of Science and Technology · Southeast University · Microsoft
分离中间候选提升与最终部署选择,用 Bayesian bootstrap Pareto 支持联合优化 Agent 质量与成本
📌 工作参考价值(4 点)
- 在 Agent/RAG 优化流程里引入 Pareto 支持度而非单目标打分:电商搜索/推荐 Agent 常需同时优化答案质量与 token/API 成本,中间迭代可先接受任一维度的可信提升,避免高质量但高成本的中间方案被过早丢弃。
- 用 Bayesian bootstrap 对多次执行结果做显著性过滤:LLM 评估噪声大,只保留跨 run 有稳定增益的 harness 候选,能减少线上实验浪费;可直接用于 prompt、tool 选择、中间件参数的 A/B 调优。
- 将候选提升与部署选择解耦,保留 Pareto 前沿而非单一 best:便于业务按实时的成本/质量约束从前沿选配置,例如大促期选低成本兜底、高价值用户选高质量方案。
- 可迁移到推荐 Agent 的 harness 搜索:固定模型权重,只优化 prompts/tools/control logic,通过重复执行与 Pareto 提升做低成本多目标迭代。
HarnessPro:面向性能-成本权衡的递归 Harness 自改进
🧭 Agent harness 多目标自进化 ★ 深度解读
Tsinghua University · Z.AI Co., Ltd. · Shanghai Jiao Tong University · University of Warwick · Kuaishou Technology
多智能体递归改进 agent harness,用 Pareto 选择产出 lite/medium/heavy 三档,同时提升 pass rate 并降低执行成本
📌 工作参考价值(4 点)
- 用固定 LLM 生成测试替代 LLM judge 评估候选轨迹:在无 ground-truth 的 agent 优化中,失败召回从 41.7% 提升到 83.3%。做电商导购/客服 agent 的 harness 或 prompt 迭代时,先基于任务描述和初始轨迹生成回归测试,后续所有候选用同一套测试,避免 LLM 判断过度乐观。
- 产出 Pareto 前沿而非单一最优:用 normalized weighted squared-distance 按 (1,2)/(1,1)/(2,1) 选 lite/medium/heavy 三档,分别对应严格成本、均衡、性能优先部署。线上可按预算分流:大促期切 lite,日常用 medium,高价值场景用 heavy。
- 动态 routing + budget hooks 是降本关键:从任务描述选择 reasoning effort 和 tool call 预算,达到阈值后通过 hook 提醒收敛或阻断额外调用;比全局降低 reasoning effort 更能保住 pass rate,适合在推荐/搜索 agent 中按 query 难度分档执行。
- 压缩工具输出和精简 system prompt,保留 prefix 缓存:用类似 RTK 的日志折叠/长输出压缩减少重复上下文 token,是低成本但有效的工程优化。
太极:工业级LLM增强推荐的语义-ID帕累托最优策略优化
🧭 LLM增强推荐 · 帕累托最优RL对齐 ★ 深度解读
Kuaishou Technology · Unaffiliated
通过逆推推理生成高质量CoT和帕累托最优策略优化实现LLM语义与推荐ID信号的动态平衡,提升广告收入
📌 工作参考价值(4 点)
- 数据蒸馏与过滤:利用逆推推理(RUPR)和基于PPL的拒绝采样(ORFT)生成高质量、领域相关的CoT数据,可借鉴到电商评论分析、用户意图理解等需要长文本推理的场景,尤其适合在缺少精确标注时自动筛选可靠推理路径。
- 动态多奖励平衡:POPO通过梯度对齐或奖励变异系数动态调整语义和ID奖励权重,避免手工固定权重,适用于多目标对齐的Agent训练或生成式推荐,能自动找到帕累托最优解,提升综合效果。
- 轻量级实现:POPO-light仅用rollout奖励的均值和标准差,零额外计算开销,适合工业级大规模RL训练;可直接嵌入现有GRPO流程,在算力受限时作为快速替代方案。
- 特征工程与检索增强:将LLM生成的语义表征量化为稀疏ID特征,并检索相似用户的行为序列作为排序模型输入,这种增强方式不改变主模型架构,可平滑迁移到推荐、广告等场景,对长尾用户效果显著提升。